Rectified Flow
拡散モデルのサンプリング(ノイズ除去)経路を直線化することで、より効率的な画像生成を実現する手法。SD3やFLUXで採用されている。
従来の拡散モデルとの違い
従来のDDPM(Denoising Diffusion Probabilistic Models)は、ノイズから画像への変換経路が曲線的(確率的)だった。これは多くのサンプリングステップを必要とする原因になっていた。
Rectified Flowは、データ点とノイズ点を直線的に結ぶことを目指す。直線の経路は近似しやすく、少ないステップでも高品質な生成が可能になる。
メリット
- サンプリングステップの削減:少ないステップで高品質な生成
- 学習の安定性:経路が単純なため、学習が収束しやすい
- 理論的な明確さ:最適輸送の観点から理論的に整理されている
フローマッチングとの関係
Rectified FlowはFlowMatchingと呼ばれる手法群に属する。ベクトル場を学習してデータ分布とノイズ分布の間の変換を学ぶアプローチで、拡散モデルの発展形と見なせる。
実装における工夫
MMDiTアーキテクチャと組み合わせることで、モデルの表現力とサンプリング効率の両方を高めている。QK正規化(QK-Norm)などの学習安定化技術とセットで使われることが多い。